Hứa Thế Hữu sinh ngày 28 tháng 2 năm 1905, người ở Thừa Mã Cương trấn, Ma Thành, Hồ Bắc (nay thuộc huyện Tân, Hà Nam), Trung Quốc. Lúc nhỏ Hứa có nhũ danh là Tam Nha Tử (三伢子), xuất thân bần nông, năm 8 tuổi vì gia đình khó khăn nên xuất gia vào chùa Thiếu Lâm làm tạp dịch, lấy pháp hiệu Vĩnh Tường (永祥). Sau khi ở Thiếu Lâm được 8 năm, Hứa hoàn tục về nhà để phục vụ mẹ già, đổi tên là Thích Hữu (释友), về sau lại đổi thành Thế Hữu (世友).[1]

Năm 1920, Hứa gia nhập đội quân của quân phiệt Ngô Bội Phu ở Hồ Bắc, thăng dần lên chức vụ chỉ huy đại đội. Năm 1926, lực lượng Quốc dân Cách mệnh Quân đánh bại quân phiệt Ngô Bội Phu. Hứa hồi hương, tham gia đội dân quân, giữ chức đại đội trưởng kiêm chỉ huy pháo pháo binh.